Sau 1975, ông trở về tư gia tại đường Nguyễn Văn Thủ, Thành phố Hồ Chí Minh. Do có thời gian tham gia kháng chiến nhưng lại trở về, ông thường xuyên gặp phải sự nghi kỵ của nhiều quan chức trong chính quyền mới. Bài hát "Khỏe vì Nước" của ông một thời gian bị cấm vì là bài hát của "tên phản bội". Tuy nhiên, do uy tín quá lớn của ông và sự can thiệp của nhiều học trò cũ của ông, nên ông không bị làm khó dễ. Ông tiếp tục việc dạy nhạc và nghiên cứu âm nhạc tại tư gia cho đến tận khi qua đời ngày 17 tháng 9 năm 1986.